Google anunció esta semana que agregará marcas de agua digitales a las imágenes editadas con su función de IA Magic Editor. Esta marca de agua se aplica específicamente a las imágenes modificadas en dispositivos Pixel 9 mediante la función Reimagine. El lanzamiento de esta nueva función tiene como objetivo mejorar la capacidad del público para identificar el contenido generado y editado por IA. La función Reimagine, anunciada en 2024, utiliza tecnología de IA generativa para realizar diversas modificaciones en fotografías digitales. Esta función junto con Magic Ed...

Meta ha lanzado recientemente un nuevo sistema de marca de agua neuronal llamado VideoSeal, diseñado para ayudar a identificar videos generados por IA, incluso después de la edición, rastreando eficazmente su origen. Esta marca de agua es invisible para los espectadores, pero puede detectarse para verificar la autenticidad del video. Meta ha publicado el sistema completo como software de código abierto con licencia MIT, incluyendo el modelo de marca de agua VideoSeal, el artículo de investigación y los códigos de entrenamiento e inferencia. Además, Meta también ha publicado...

Hoy en día, los Deepfake están por todas partes. Con la proliferación de la IA generativa, el contenido falso en línea está creciendo exponencialmente. Según la plataforma de verificación de identidad Sumsub, entre 2023 y 2024, la cantidad de Deepfakes en todo el mundo aumentó cuatro veces. En 2024, los Deepfakes representaron el 7% de todas las actividades fraudulentas, desde la suplantación de identidad y el robo de cuentas hasta ataques de ingeniería social complejos, todos ellos con la presencia de Deepfakes. Para combatir eficazmente los Deepfakes, Meta...

Con el aumento de la tecnología deepfake, la cantidad de contenido falso en línea se ha disparado. Según la plataforma de verificación de identidad Sumsub, la cantidad de deepfakes se cuadruplicó entre 2023 y 2024, representando el 7% de todos los fraudes en 2024. Esto incluye diversas formas, como suplantación de identidad, toma de cuentas y ataques de ingeniería social complejos. Para abordar este desafío, Meta ha lanzado recientemente una nueva herramienta de marca de agua, Meta Video Seal, diseñada para identificar contenido generado por IA

Con la comercialización de la inteligencia artificial generativa, la cantidad de contenido falso en línea ha aumentado drásticamente. Según datos de la plataforma de verificación de identidad Sumsub, la cantidad de deepfakes en todo el mundo aumentó cuatro veces entre 2023 y 2024. En 2024, los deepfakes representaron el 7% de todos los fraudes, involucrando diversas formas, desde suplantación de identidad y usurpación de cuentas hasta complejas actividades de ingeniería social. Para abordar este problema, Meta ha lanzado una nueva herramienta, Meta Video Seal, destinada a agregar una marca de agua indetectable a los videos generados por IA

En los últimos años, con la rápida difusión del contenido digital, las marcas de agua, como importante medida para proteger los derechos de autor de las imágenes, han recibido cada vez más atención. Sin embargo, las marcas de agua a menudo afectan la estética de las imágenes, lo que limita su uso compartido o su utilización. kaze.ai es una herramienta gratuita en línea para eliminar marcas de agua que utiliza tecnología de inteligencia artificial avanzada para ayudar a los usuarios a eliminar fácilmente las marcas de agua y logotipos de las imágenes. kaze.ai es muy fácil de usar; los usuarios solo necesitan cargar una imagen o un enlace de imagen para comenzar rápidamente el proceso de eliminación de marcas de agua. La plataforma promete un procesamiento...

OpenAI se enfrenta al desafío de cómo abordar el plagio estudiantil con ChatGPT. Aunque ha desarrollado una tecnología de "marca de agua" que puede detectar contenido generado por ChatGPT con una precisión del 99,9%, aún no se ha lanzado públicamente debido a las amplias preocupaciones sobre el uso de IA para hacer trampa por parte de los estudiantes. El debate interno ha durado casi dos años, y los principales obstáculos para su lanzamiento incluyen el equilibrio entre el compromiso con la transparencia y el mantenimiento de la lealtad de los usuarios, así como la preocupación por un impacto negativo en los hablantes no nativos de inglés. El sector educativo demanda esta solución urgentemente, preocupado por el posible aumento del plagio con IA.

Recientemente, Meta ha publicado discretamente seis resultados de investigación que aportan nuevas aplicaciones y avances tecnológicos al campo de la IA. Entre ellos se incluyen un modelo multimodal, un modelo de generación de música a partir de texto, una tecnología de marca de agua de audio y conjuntos de datos, entre otros proyectos. A continuación, veamos en detalle cuáles son estos resultados de investigación.

Google DeepMind presenta SynthID, una tecnología de marca de agua de audio para IA imperceptible para el oído humano. La marca de agua de audio se utiliza para identificar el origen de la generación de IA. No afecta la experiencia auditiva; la marca de agua puede detectarse incluso en archivos de audio comprimidos, acelerados o ralentizados. Constituye una importante protección contra los peligros de la IA generativa. SynthID convierte las ondas de audio en una representación visual bidimensional.

Microsoft ha lanzado una herramienta de marca de agua digital, llamada Content Credentials as a Service, destinada a proteger las campañas políticas de las amenazas de las falsificaciones profundas. La herramienta agrega información de metadatos, incluyendo la fecha y hora de creación del contenido, el método de creación y el creador. Microsoft colabora con organizaciones para lanzar un sitio web de información electoral confiable en Bing y apoya una legislación que prohíbe los anuncios políticos falsos creados con IA. Además de la herramienta de marca de agua digital, Microsoft ofrece protección de ciberseguridad y asesoramiento sobre inteligencia artificial, y ha establecido un centro de comunicaciones electorales.

El desarrollo de la IA ha facilitado la creación de imágenes falsas profundas, lo que genera riesgos sociales significativos. Un estudio muestra que las técnicas de marca de agua digital existentes son fáciles de eludir y que tienen dificultades para contener el problema de la falsificación profunda de la IA. El mal uso de la IA puede provocar desinformación, fraude e incluso manipulación electoral, lo que requiere precaución. El diseño de técnicas de marca de agua digital fiables aún presenta cierta dificultad, pero no es una tarea imposible.

Digimarc Corporation ha lanzado recientemente Digimarc Validate, un servicio que permite a los propietarios de derechos de autor agregar marcas de agua digitales a sus obras para proteger la propiedad intelectual. Este servicio ayuda a abordar el problema de la infracción de derechos de autor por parte de los modelos de IA durante el entrenamiento. La tecnología de marca de agua digital permite un seguimiento y una protección más efectivos de la propiedad intelectual de los activos digitales. Las empresas de IA se enfrentan a litigios por infracción de derechos de autor, y las marcas de agua digitales prometen un entorno más seguro. La Oficina de Derechos de Autor de EE. UU. y la Casa Blanca también están prestando atención al desarrollo de la tecnología de marca de agua digital.